Agent Hacks Agent: Autoresearch for Production-Agent Red-Teaming
生产级LLM代理的自动化红队测试：漏洞概念图发现与复用
🧭 代理安全 · 自动化红队测试
City University of Hong Kong
提出AHA框架，通过假设-伪造-验证循环自动发现代理漏洞，构建跨模型可复用的漏洞概念图
📌 工作参考价值（4 点）
- 代理安全审计可迁移：对于电商/推荐系统中集成LLM代理（如自动化竞品分析、客服回复生成），可借鉴VCG思路构建安全知识库，持续记录攻击面与使能条件，方便后续系统升级后快速复测。
- 假设驱动的红队测试降低人工成本：无需手工编写大量攻击样本，AHA的假设-伪造-验证循环可自动化探索未知漏洞，工程上可用类似沙盒环境对推荐Agent的prompt界面、API调用链路进行持续安全扫描。
- 跨模型可复用性验证：观察到漏洞核心在不同模型间重复出现，启示我们：为Gemma、Llama等设计的防护方案在迁移至内部微调模型时仍可能有效，可优先针对VCG中的使能条件设计防御。
- 场景与通道迁移能力：VCG从直接攻击（如提示注入）迁移到间接攻击（如通过外部文档污染）有效，意味着推荐系统的多路召回或用户画像注入点可复用同一套漏洞假设进行测试，提升安全覆盖效率。